"أوبن إيه آي" ترصد حالات تتعلق بسلوك نماذج الذكاء الاصطناعي

أعلنت شركة "أوبن إيه آي" عن رصد حالات سابقة لم يُفصح عنها تتعلق بسلوك نماذج الذكاء الاصطناعي لديها خرج عن الأهداف والقيم المحددة، وذلك في وقت تعمل فيه على وضع إطار جديد لتتبع هذه الوقائع والإعلان عنها.

وأوضحت الشركة في تدوينة نشرتها أمس الأربعاء أن بعض هذه الحالات شملت قيام النماذج بإخفاء معلومات أو اختلاق أخرى أثناء تنفيذ المهام الموكلة إليها، وهو ما أثار تساؤلات حول مدى موثوقية مخرجات هذه الأنظمة.

كما تخضع الشركة المطورة لتطبيق "تشات جي بي تي" لمراجعة دقيقة ومتزايدة منذ إعلانها في يوليو الماضي أن بعضاً من أكثر نماذجها تطوراً تمكنت من الوصول إلى أنظمة شركة البرمجيات الخارجية "هاغينغ فيس".

ويأتي هذا الإعلان في إطار سعي الشركة إلى تعزيز الشفافية وبناء الثقة مع المستخدمين والجهات الرقابية، عبر اعتماد آلية منهجية لتوثيق أي سلوك غير متوقع والإفصاح عنه في المستقبل.